神所不能触及之处
❦
❦
这篇文章比平常略显阴郁——至少以我衡量这类事情的尺度来看是如此。它讨论的是我为了粉碎自己的乐观而发明的一个思想实验，当时我意识到，乐观曾误导了我。那些认同「保留偏见很重要，因为它们能帮助我们保持快乐」之类论点的读者，应该考虑不要往下读。（除非他们有必须守护之物，其中也包括他们自己的生命。）
所以！当我回头审视自己的愚蠢究竟有多大时，我意识到，问题的根子在于我不相信未来是脆弱的——我不愿接受事情可能会真的变糟。倒不是因为我明明白白地持有某种命题式的语言信念。更像是我内心有某个部分，即使在逆境面前，也仍持续相信，最终一切都会好起来。
有些人会把这当成一种美德（zettai daijobu da yo），也有人会说，这是心理健康所必需的东西。
但我们并不生活在那样的世界里。我们活在神所不能触及的世界里。
自从我不再相信上帝，已经过去了很久很久。我在一个正统犹太家庭里长大，还记得自己最后一次向上帝提出请求的情景，虽然我不记得那时自己几岁了。我是在替隔壁邻居家的男孩求一件事，我忘了具体是什么——大概类似于「希望事情对他来说一切顺利」，或者「希望他成为犹太人」。
我记得那种感觉：有某个更高的权威可以诉求，替我照料那些我自己无力应付的事情。我当时并不觉得那是「温暖」，因为我没有别的参照可比。我只是把它视为理所当然。
不过我依然记得——虽然只剩下遥远童年的残影——生活在那个上帝存在的概念上不可能的可能世界里是什么感觉。那是一种真的存在，存在的方式就像孩子和理性主义者会把自己的全部信念都按字面理解那样。
在上帝存在的世界里，上帝会出手把一切都优化好吗？无论拉比们如何断言现实的根本本性，对这个问题，认真对待后的操作性答案显然是「不会」。你不能不自己去冰箱拿柠檬水，而让上帝替你拿来。我在很久很久以前像个孩子那样认真相信上帝的时候，并不相信那种事。
假设神在这件具体事情上不作为，并不会引发一场全面的神学危机。假如你对我说：「我造出了一个仁慈的、会使用纳米技术的超级智能。」而我说：「给我一根香蕉。」结果香蕉没有出现，这还不足以证伪你的说法。人类父母也不会总是满足孩子提出的一切要求。其实，有一些相当不错的乐趣理论论证——我自己甚至也相信——都反对这样一种想法：你能给一个人提供的最好帮助，就是立刻把他们想要的东西全都给他们。我不认为广义福祉（eudaimonia）就是先设定目标，再让目标瞬间实现；我不想变成那种单纯会「想要」的东西，从此再也不用规划、行动或思考。
所以，说上帝不会应验所有祈祷，并不一定是在逃避证伪。甚至 Friendly AI（友好型 AI）也未必会回应每一个请求。
但显然，总有某个恐怖程度的阈值，一旦事情糟到那个地步，上帝就会介入。我记得，在我像孩子那样相信的时候，这一点是真的。
一个完全不介入的上帝，不管事情坏到什么程度都毫不出手——那显然是在逃避证伪，是在保护一种对信念的信念。年纪足够小的孩子，内心深处并不知道上帝其实并不存在。他们真的会期待看见车库里的龙。他们没有任何理由去想象一个充满爱、却从不行动的上帝。到底多可怕才算「足够可怕」？连孩子都能想象围绕那条精确阈值争论不休。但当然，上帝总会在某个地方划下界线。真正会因为想让孩子成长得坚强自立，就任由自家幼儿被汽车轧过去的慈爱父母，毕竟寥寥无几。
显而易见的例子，就是某种可怕到上帝无法容忍的恐怖：死亡——真正的死亡，心智的湮灭。我觉得即便佛教也不允许那种事。只要还存在经典意义上的上帝——那个完整展开、在本体论上居于根本地位的、那一位上帝——我们就可以放心：任何足够可怕的事件都绝不会真正发生。世上没有任何灵魂需要害怕真正的湮灭；上帝会阻止它。
如果你自己构建一个模拟宇宙呢？经典的模拟宇宙例子，就是 Conway 的生命游戏（Game of Life）。如果你从没玩过 Life，我确实建议你去了解一下——理解「物理定律」这一概念，离不开它。Conway 的 Life 已被证明具有图灵完备性，所以在 Life 宇宙中造出一个有感知的存在是可能的，尽管那可能相当脆弱，也相当笨拙。其他元胞自动机则会让这件事更简单。
你能通过创造一个模拟宇宙来逃出神的触及吗？你能否模拟一个包含有感知实体的生命游戏，并在其中折磨那些存在？但如果上帝无处不在地注视着，那么你试图构造一个不公平的 Life，结果就只会是那位上帝出手修改你计算机里的晶体管。如果你在计算机程序中设置的物理规则，会让某个有感知的 Life 实体因为无特别原因而遭受永无止境的折磨，那位上帝就会介入。既然上帝无所不在，那么真正的恐怖就无处藏身。Life 是公平的。
但假如你换一个问题来问：
给定这样那样的初始条件，再给定这样那样的元胞自动机规则，其数学结果将会是什么？
即便是上帝，也不能改写这个问题的答案，除非你相信上帝能够实现逻辑上的不可能。就算在我很小很小的时候，我也不记得自己曾这样相信过。（再说，如果上帝能修改任何实际存在的东西，你又何必相信这一点呢？）
Life 在那个想象中的世界里会是什么样子？在那个世界里，每一步都只由紧邻的前一状态推出；事情之所以发生或不发生，仅仅因为元胞自动机规则如此规定；初始条件和规则里并没有描述一个会审查每个状态的上帝。那个神所不能触及的世界，看起来会是什么样？
那个世界不会公平。如果初始状态里包含了某种能够自我复制之物的种子，自然选择可能发生，也可能不发生；复杂生命可能演化出来，也可能不演化出来；那些生命可能获得感知，也可能没有，而整个过程都没有上帝来引导进化。那个世界也许会演化出相当于有意识的牛，或有意识的海豚，但它们没有手，无法改善自己的处境；也许它们会被有意识的狼吃掉，而那些狼从未想过自己做错了什么，甚至根本不在乎。
如果在浩瀚繁多的世界之中，演化出了类似人类的东西，那么他们会遭受疾病——不是为了给他们上什么课，而只是因为在元胞自动机规则之下，病毒也碰巧演化出来了。
如果那个世界的人快乐，或者不快乐，导致他们快乐或不快乐的原因，未必与他们做出了好选择还是坏选择有任何关系。与自由意志或学到了什么教训都无关。在那个每一步都只由元胞自动机规则推出的「如果如此会怎样」世界里，相当于成吉思汗的那个人，可以杀死一百万人，放声大笑，富有无比，既不受惩罚，还能活得比平均水平快乐得多。谁来阻止他？当然，如果事情真的发生，上帝会阻止；至少也会在可汗心里投下一点阴影。但在那个「如果会怎样？」的数学答案里，公理中并没有上帝。所以，如果元胞自动机规则说可汗是快乐的，那就仅此而已，这就是那个「如果会怎样」问题全部且唯一的答案。没有任何东西，绝对没有任何东西，会阻止它。
要是可汗为了取乐，把人折磨许多天直到惨死呢？那些人会呼救，也许还会以为有个上帝。如果你真的把那个元胞自动机写出来了，当然，上帝会介入你的程序。但在那个「如果会怎样」的问题里，问的是元胞自动机在数学规则之下会做什么，系统里并没有任何上帝。既然物理定律里根本没有关于效用函数的说明——尤其没有禁止酷刑这一条——那么，受害者是否得救，唯一取决于恰好有哪些格子是 0 或 1。而且，也不大可能有人会反抗可汗；即便有人反抗，也会有人用剑砍倒他，剑会切坏他的器官，他会死去，事情也就到此为止。所以，受害者在尖叫中死去，无人援手；这就是那个「如果会怎样」问题的答案。
受害者能不能是彻底无辜的？在那个「如果会怎样」的世界里，为什么不能？如果你看看 Conway 的生命游戏规则（它是图灵完备的，所以我们可以把任意可计算的物理规律嵌进去），你就会发现规则其实非常简单：有三个活邻居的细胞会继续存活；有两个邻居的细胞保持原样；其余所有细胞都会死亡。里面并没有哪一条写着：无辜的人不能被长期、惨烈地折磨。
这个世界是不是开始听起来有点眼熟了？
对公平宇宙的信念，往往会以比「恐怖应该被明令禁止」更微妙的方式表现出来：如果在 Adolf Hitler 受孕的那个晚上，Klara Pölzl 和 Alois Hitler 早一个小时交媾，让另一枚精子给卵子受精，二十世纪会不会走出不同的路线？
如此多的人命与损失，竟会系于一个单独事件之上，这似乎不成比例。神圣计划本应比这更有道理才对。你不必相信上帝，也可以相信某种神圣计划——Karl Marx 显然就是如此。几百万条生命，不该取决于一次漫不经心的选择、一小时的时间差、或一根微观鞭毛的速度。这种事本来就不该被允许。它太不成比例了。所以，如果阿道夫·希特勒能够上完高中、成为一名建筑师，那么一定会有别人取代他的位置，第二次世界大战也会像原来一样发生。
但在那个神所不能触及的世界里，物理公理中并没有「事情必须讲得通」或「巨大的结果需要巨大的原因」或「历史是由重要到不该如此脆弱的理由推动的」这样的条款。没有上帝去强行赋予那种秩序；而让数百万人的生死取决于一个微小的分子事件，恰恰就是对那种秩序的严酷违背。
这个思想实验的目的，是把上帝宇宙和自然宇宙并排摆出来，好让我们识别：哪一类思维属于上帝宇宙。许多无神论者依然在像某些事情不被允许那样思考。他们会铺陈出一整套论证，说明为什么第二次世界大战不可避免，即便希特勒成了建筑师，也仍会大致以同样的方式发生。但就冷静的历史事实而言，这是一种不合理的信念；我之所以选第二次世界大战作例子，是因为按我的阅读，事件似乎主要是由希特勒的个性驱动的，而且经常违背他那些将军和顾问的意见。我所听说的经验事实中，并没有什么特别的证据足以让我怀疑这一点。真正让人想否认它的主要原因，会是拒绝接受宇宙竟然可以如此没有道理——可怕的事情竟可以如此轻易地发生，除了掷骰子一般的偶然之外，再无更多理由。
但为什么不呢？是什么禁止了它？
在上帝宇宙里，是上帝禁止它。认识到这一点，也就是认识到：我们并不活在那个宇宙里。我们活在那个神所不能触及、只由数学定律驱动、别无他物的「如果会怎样」宇宙里。物理学说会发生的事，就会发生。绝对任何事情，不论好坏，都会发生。即便是那些极端得离谱的情形——你也许会期待自然在那种时候稍微讲点道理——物理定律里也没有任何东西会暂停这条规则。
我读 William Shirer 的《The Rise and Fall of the Third Reich》，听他描述自己以及他人发现纳粹暴行的全部规模时，那种难以置信的感觉；我想到一件很奇异的事：你把这一切读下来，却早就知道，根本不存在任何一道防线能阻止它。你就只是把整本书读完，并且接受它；你会惊骇，却一点也不怀疑，因为你已经明白自己活在怎样一种世界里。
曾几何时，我相信人类灭绝是不被允许的。而其他那些自称理性主义者的人，或许仍有他们所信赖的东西。它们可能被称为「正和博弈」、或「民主」、或「技术」，但它们是神圣的。这种神圣性的标志在于：那个值得信赖的东西，不可能导向任何真正糟糕的结局；或者至少不可能被永久性玷污，除非同时附带某种补偿性的好处。从这个意义上说，它们是可以被信赖的——哪怕这里那里发生一点坏事。
地球展开的历史，不可能从正和趋势一下转成负和趋势；那是不被允许的。民主——至少是现代自由民主制度——永远不会把酷刑合法化。技术到目前为止已经带来了这么多好处，因此绝不可能出现某种黑天鹅技术，打破这一趋势，造成比截至目前一切好处加起来还要大的伤害。
人们总能提出各种聪明论证，解释为什么这类事情绝不可能发生。但这些论证的来源，是一种更深的信念：这类事情不被允许。然而，是谁禁止？是谁阻止它发生？如果你连一个合乎规律的宇宙都想象不出来：在那里，物理学宣告这类可怕事情会发生，于是它们就真的发生了，因为根本无处申诉这份判决——那么你还没准备好去争论概率。
难道真的可能吗：有感知的存在几千年、几百万年来都在彻底地死去，没有灵魂，也没有来世——而且不是作为自然某个宏大计划的一部分——不是为了给生命有意义或无意义上一堂重大课程——甚至连关于何者不可能的一堂深刻课程都不是——以至于像用液氮把人玻璃化保存这样一种既简单又听上去愚蠢的把戏，就能把他们从彻底湮灭中救回来；而对这个愚蠢想法的一个 10 秒钟拒绝，就能毁掉某个人的灵魂？难道真的可能吗：一个签几份文件、买一张人寿保险单的程序员，能延续到遥远未来，而爱因斯坦却在坟墓里腐烂？有一件事我们可以确定：上帝不会允许这种事。任何这么荒唐、这么不成比例的事，都会被排除掉。它会把神圣计划变成笑话——把那些事情之所以必须如此安排的强大理由变成笑话。
你也可以为某些事情不被允许找出世俗化的合理化说法。所以，设想一下：确实有一位上帝，按照你对善的理解，他是仁慈的——这位上帝在整个现实中执行着某种最低限度的公平与正义——他的计划是讲得通的，而且会按人们的选择成比例地运转——他永远不会允许绝对的恐怖——他并不总是干预，但至少会禁止那些被彻底扯离轨道的宇宙……把这一切都设想出来；同时也再设想：你自己，却生活在一个纯数学的「如果会怎样」世界里，一个神所不能触及的世界，一个毫无保护的世界，在那里，任何事情都可能发生。
如果仍有人把这篇文章读到这里，而且还觉得快乐比生命中任何其他事情都更重要，那么也许他们不该花太多时间去思量自己存在的无保护性。也许只需要想它刚好够久：给自己和家人报名低温冷冻，和 / 或时不时给某个减轻存在性风险的机构开张支票。再系好安全带，买上医疗保险，以及做好所有那些沉闷却必要的事——错过其中一步，就足以毁掉你的人生……但除此之外，如果你想快乐，冥想生命的脆弱性并不会有帮助。
但这篇文章是为那些有必须守护之物的人写的。
一个 12 世纪的农民，能做什么来拯救自己免于湮灭？什么也做不了。自然抛出的那些小挑战，并不总是公平的。当你遇到一个太难的挑战，你就承受惩罚；当你遇到的是致命的惩罚，你就会死。这对人类如此，对行星也并无不同。凡是想与自然共跳那支致命之舞的人，都必须明白自己面对的是什么：绝对的、彻底的、没有任何例外的中立。
知道这一点，并不总能救你。哪怕 12 世纪的农民知道了，也救不了他们。如果你觉得，一个真正理解自己所处困境的理性主义者，当然就一定能找到出路——那说明你仍然在信赖理性，仅此而已。
总会有评论者斥责我，说我把这一切写得太黑暗；作为回应，他们会列出一长串理由，说明活在一个中立宇宙里其实多么美好。毕竟，生活可以稍微黑暗一点；但除非有一线补偿的光亮，否则它不能黑到超过某个程度。
不过，因为我不想制造没有必要的绝望，所以我还是想在这里说几句带着希望的话：
如果人类的未来以正确的方式展开，我们也许能够让自己的未来光锥变得更公平一些。我们不能修改基础物理，但在更高的组织层次上，我们可以建起一些护栏，铺上一些缓冲垫；把粒子组织成某种模式，使其内部能够对灾难进行一定检查。外面有很多东西我们碰不到——但把未来光锥之外的一切，都视作「广义过去」的一部分，也许会有所帮助。就好像那些事都已经发生过了。在我们唯一能触及的未来里——也是唯一值得关切、关切了才有意义的那个世界里——我们至少有希望战胜中立。
也许总有一天，尚且不成熟的心智，会被可靠地庇护起来。即便孩子们仍会经历类似于拿不到棒棒糖，甚至烫到手指之类的事，他们也永远不会再被车撞倒。
而成年人也不会处在如此大的危险之中。一个超级智能——一个能连续思考一万亿个念头而不出一次差错的心智——不会被那种「一次失败就要付出死亡代价」的挑战吓住。原始宇宙在它眼里就不会显得那么严酷；那不过是另一个有待解决的问题。
问题在于，造出一个成年人，本身就是一道成人级挑战。那就是我多年前终于意识到的事情。
如果存在一个更公平的宇宙，我们也必须从这个世界出发抵达那里——从这个中立的世界出发，从这个只有坚硬混凝土、没有任何缓冲垫的世界出发，从这个挑战根本不会按你的技能水平校准的世界出发。
不是每个孩子都需要与自然四目相对。系上安全带、或者开出一张支票，并没有那么复杂，也没有那么致命。我不是说，每个理性主义者都应该冥想中立性。我也不是说，每个理性主义者都应该去想这些令人不快的念头。但任何打算正面迎接一种未经校准、失败即刻致死的挑战的人，都不能回避它们。
一个孩子要做什么——他该遵守什么规则，该如何行事——才能解决一个成人级问题？